ECHO: Terminal Agents Learn World Models for Free
ECHO：将终端反馈转化为免费世界模型训练的智能体强化学习
🧭 终端智能体 · 稀疏奖励 · 世界模型 ★ 深度解读
Microsoft Research
ECHO在GRPO中增加环境观测token的交叉熵损失，将终端输出变为稠密监督，在TerminalBench-2.0上pass@1翻倍。
📌 工作参考价值（4 点）
- 业务中若存在交互式环境（如对话Agent、推荐模拟器），可将环境返回的文本（如用户反馈、系统日志）直接作为辅助预测目标，在RL损失中加入交叉熵项，为失败样本提供稠密梯度，加速策略学习。
- 该方法仅需修改损失掩码，重用已有前向计算，无需额外模型或rollout，工程实现成本极低，适合在现有GRPO或PPO训练流程中快速试验。
- 在电商对话或任务型Agent中，可将用户对每次回复的直接反应（如点击、评价文本）作为“环境观测token”，训练模型预测自身行为的后果，隐式学习用户模型，从而减少对稀缺成功轨迹的依赖。
- 入的“无验证器适应”实验表明，即使没有奖励信号，仅凭预测环境反馈也能在OOD任务上持续改进，这为在线持续学习或冷启动场景提供了思路：可在无人工标注时仅通过模拟交互提升模型。